📘 TFLite 嵌入式移植
30章 · 从零到实战
🎯 友好色系
第1章
TFLite 概述
什么是 TensorFlow Lite,为什么要在嵌入式上跑 AI,课程目标与前置知识。
第2章
环境搭建
交叉编译工具链安装、CMake 配置、Python 与 TFLite 解释器源码获取。
第3章
TFLite 模型格式
FlatBuffers 简介、.tflite 文件结构、模型可视化工具 Netron。
第4章
模型转换入门
从 Keras 模型导出 .tflite、量化选项(float32 vs int8)、转换脚本编写。
第5章
TFLite 解释器核心
Interpreter 类、输入输出张量、Invoke() 调用流程。
第6章
C++ API 详解
TfLiteTensor、TfLiteContext、TfLiteRegistration 结构体解析。
第7章
算子注册机制
内置算子列表、自定义算子注册、OpResolver 的使用。
第8章
内存管理
Arena 分配器、Tensor 生命周期、内存优化技巧。
第9章
模型加载与解析
从文件系统加载、从内存加载、模型校验与版本兼容。
第10章
输入预处理
图像缩放、归一化、数据排布(NHWC vs NCHW)、OpenCV 集成。
第11章
输出后处理
分类结果解析、目标检测框解码、置信度过滤。
第12章
性能基准测试
使用 benchmark_model 工具、推理时间测量、FLOPS 估算。
第13章
量化原理
对称量化 vs 非对称量化、量化感知训练(QAT)、校准数据集。
第14章
整数量化部署
int8 模型在 MCU 上的运行、查表法加速、精度损失评估。
第15章
Delegate 机制
GPU Delegate、NNAPI Delegate、XNNPACK Delegate 原理与配置。
第16章
Edge TPU 移植
Coral 设备集成、TPU 编译器、模型分区策略。
第17章
ARM Cortex-M 移植
CMSIS-NN 集成、Micro 框架、内存受限场景优化。
第18章
RISC-V 平台适配
工具链选择、向量扩展指令利用、现有移植案例分析。
第19章
RTOS 集成
FreeRTOS 任务管理、中断安全调用、堆栈大小估算。
第20章
裸机移植
无操作系统下的调度、定时器驱动、轮询模式推理。
第21章
调试技巧
日志打印、断点调试、Tensor 值 dump、常见崩溃原因分析。
第22章
模型大小优化
权重剪枝、知识蒸馏、聚类量化、模型瘦身实战。
第23章
多模型流水线
模型 A 到模型 B 的数据传递、流水线并行、内存复用。
第24章
摄像头实时推理
V4L2 驱动、帧缓冲管理、流水线延迟优化。
第25章
音频信号处理
MFCC 特征提取、语音命令识别、TFLite 音频模型部署。
第26章
传感器融合
IMU 数据处理、时间序列模型、低功耗轮询策略。
第27章
OTA 更新
模型远程升级、差分更新、版本回滚机制。
第28章
安全与加密
模型加密存储、安全启动、防篡改校验。
第29章
功耗优化
DVFS 调频、睡眠模式、事件驱动推理、电池续航估算。
第30章
综合实战
从零搭建智能门禁系统(人脸检测+识别+舵机控制),完整项目复盘。